이 글은 AI 코딩의 목적이 단순히 대량의 저품질 코드를 빠르게 양산하는 것이 아니라, 오히려 코드 품질을 높이기 위해 더 느리고 꼼꼼하게 작업하는 데 활용해야 한다고 주장합니다. 저자는 여러 LLM 에이전트를 활용해 PR의 버그를 찾고 가양성을 제거하는 워크플로우를 소개하며, 이를 통해 전체 코드베이스의 건강성을 크게 개선할 수 있다고 설명합니다.
모질라가 버그 헌팅에 앤스로픽의 '클로드 마이토스(Claude Mythos)'를 도입한 결과, 4월에 보안 취약점 수정 건수가 급증했습니다. AI가 기존에 발견하기 어려웠던 잠재적 위협을 대거 찾아내며 소프트웨어 보안 강화에 실질적인 성과를 입증한 사례로 평가받습니다.
Claude와 같은 AI 모델을 활용해 파이어폭스 내 상당수의 숨겨진 보안 취약점을 발견하고 수정한 사례를 공유했습니다. 과거 쓰레기에 불과했던 AI 생성 버그 리포트의 퀄리티는 모델 고도화 및 활용 기술 개선을 통해 매우 정교한 수준으로 발전했습니다. 이 과정에서 샌드박스 탈출, 20년 된 메모리 누수 등 치명적인 취약점들이 다수 발견되었으며, 이는 소프트웨어 방어자들에게 AI를 적극 도입해야 하는 이유를 시사합니다.
앤스로픽의 최고 수준 사이버 보안 AI 모델인 '클로드 미토스(Claude Mythos)'가 독보적이라는 주장이 무너지고 있습니다. 두 곳의 독립적인 연구에 따르면, 상용화된 소규모 오픈 모델들도 미토스가 탐지해 낸 보안 취약점 대부분을 동일하게 발견하고 재현해냈습니다. 이는 보안 분야에서 특정 폐쇄형 대형 모델만이 가진 우위가 줄어들고 있으며, 작은 모델들도 충분히 경쟁력을 갖췄음을 시사합니다.